截断与否？循环Transformer截断BPTT的缩放研究
🧭 循环Transformer训练与缩放律
MMLab, The University of Hong Kong · Yale University
拟合统一缩放律发现完整BPTT优于截断，两圈循环用27%少参数和8%多计算达到更低验证损失
📌 工作参考价值（3 点）
- 若在推荐/广告模型中采用共享层块的循环结构以减少参数量，不要为了省显存而截断BPTT；在同等总计算预算下，完整BPTT通过更少前向循环反而效果更好，可优先降低循环次数而非截断反向传播。
- 缩放律表明截断会“折扣”有效参数，因此在估算模型容量或做资源规划时，应把截断后的有效参数而非原始参数纳入考虑，尤其对于参数量敏感的端侧或在线学习场景。
- 当业务强约束参数量（如模型部署在边缘设备），可考虑训练两圈完整BPTT的循环Transformer，比计算最优非循环模型少约27%非embedding参数，且仅需多约8%训练计算，适合参数受限但训练算力相对宽裕的情况。
迈向正确的循环模型：拓扑、输入注入与循环状态设计（第一部分）
🧭 高效循环 LLM 架构设计
Institute of Foundation Models · USC · CMU
系统消融循环LLM的拓扑、输入注入和循环状态设计，证明Huginn架构在稠密和MoE模型上均优于Ouro且参数效率更高
📌 工作参考价值（4 点）
- 循环 Transformer 是低成本部署 LLM 的有效架构：在电商搜索、推荐系统等需线上低延迟、低显存的场景，可采用 prelude–recurrent block–coda sandwich 结构，以相同 FLOPs 将 resident 参数减少约 75%，适合高频更新和边缘部署。
- 把 input injection 看作增强知识检索与上下文利用的专项机制：在做 query 改写、搜索 suggestion、商品描述生成或 RAG-based 推荐时，可专门设计输入注入层，将用户上下文、商品知识等注入循环块，而不用改变整体拓扑。
- 循环状态设计应从简：论文显示 separate H/L recurrent states 和 random initialization 无稳定收益，因此工程实现中不要过度设计循环状态，优先使用简单共享状态和标准初始化，降低实现复杂度。
- MoE 与循环结合可行且路由更均衡：推荐系统的大规模稀疏 MoE 模型可借鉴 Huginn-style loop，用更少 resident 参数维持性能，同时改善专家负载均衡，适合多域/多任务推荐联合训练。
HASTE：面向生成式推荐的层级与属性感知监督
🧭 生成式推荐 · Semantic ID 层级/属性监督 ★ 深度解读
Glance
提出层级损失与属性辅助损失，在 Semantic ID 生成式推荐中实现约 2 倍训练提速与长尾显著提升
📌 工作参考价值（4 点）
- 对基于 RQ-VAE Semantic ID 的生成式推荐，可直接把 flat causal CE 换成层级损失：粗粒度 SID code 给更大静态权重（如 4:3:2:1），再用 detached 置信度 gate 控制下游 level 的 loss 权重，并让权重从静态逐步退火到条件权重；同时用 scheduled sampling 扰动上游粗 code。这样不改变推理结构，却可拿到约 2× 收敛提速。
- 如果业务有商品属性（颜色、材质、版型等），可以在精细 SID 位置（如 L2 hidden state）接一个 64 维 MLP 回归头做辅助监督，目标由 SID tuple 查 catalog 聚合得到，不需要 query 中显式出现属性；用 Huber loss 且对低频 item 做频率加权 clamp((f_med/f_i)^0.5, 1, 5)，长尾 Recall@10 可提升 18%–24%。
- 属性辅助 head 不修改 SID 词表、logits 或生成分布，方便单独保存/上线回滚；但要先确认属性标注覆盖率，缺少 structured attribute 的数据集无法直接复用。
- 结果提示：标准 CE 微调会侵蚀预训练阶段形成的层级结构，使相邻 SID level 的 cosine coupling 下降、embedding drift 增大；因此在迁移 LLM 做生成式推荐时，值得监控 SID embedding 的结构保持程度，而不是只看 Hit/NDCG。
KV4-RL：INT4 KV Cache 量化加速 RLVR 异步 Rollout
🧭 RLVR 训练加速 · KV cache 量化
KAIST · NAVER Cloud · AITRICS
提出 KV4-RL，通过校准无关 INT4 KV 量化与选择性 INT8 保护 attention sinks 和近期上下文，在保持训练质量的同时大幅加速 RLVR 异步 rollout
📌 工作参考价值（4 点）
- 在使用 GRPO/RLVR 微调电商/搜索领域的推理型 LLM（如 query 改写、生成式推荐）时，可直接引入 KV cache 量化加速 rollout：长尾生成导致 KV 工作负载集中，KV 量化比权重量化或 weight-activation 量化收益更大。
- 选择性 INT8 保护策略可迁移到其他量化训练场景：对 attention sinks 和最近若干个 token 保持高精度，能有效缩小采样分布偏移（sampler mismatch），避免训练退化，同时保留大部分 INT4 加速。
- 校准无关的 INT4 KV 量化无需校准数据集，适合 RLVR 异步 rollout 中动态变化的 prompt 和生成长度，工程实现门槛低，可与 token-level truncated importance sampling（TIS）结合进一步稳定训练。
- 若业务中有大规模 LLM 自博弈或在线采样（如用 LLM 生成推荐理由、广告文案），可考虑对 KV cache 采用 INT4 量化，尤其当并发解码使 KV 成为主要瓶颈时，能显著降低推理成本而不明显损失最终模型质量。
优化大规模推荐系统训练的有效训练时间
🧭 大规模推荐训练效率优化 ★ 深度解读
Meta Platforms, Inc.
定义ETT%并优化推荐训练生命周期开销，使6个模型平均ETT提升15.5个百分点
📌 工作参考价值（4 点）
- 建立两级 ETT% 看板：把 TTS / NoF / TTR 再拆到调度、trainer 初始化、PT2 编译、wasted training、shutdown，并映射到 owner，设置 service level 告警。电商/广告训练平台可直接照搬，避免只盯 MFU。
- 优先优化冷启动与恢复共享路径：用 synthetic fast-batch 解除数据管道预热与 PT2 编译的串行依赖，把初始化阶段并行化。因为恢复会重复冷启动，收益按 (1+NoF) 放大。
- PT2 编译治理很划算：对变化维度做 mark_dynamic，剪裁 Triton autotune 并固化为静态配置，稳定 symbolic hash，使用 Mega-Cache 复用编译产物；冷缓存编译从 2050s 降到 254s。
- checkpoint 和发布拆离 GPU 关键路径：异步 checkpoint + PyTorch native staging 可降低 save blocking 约 77%；把模型发布从 trainer 内改为 anchor checkpoint + standalone CPU job，每个 job 可释放约 30 分钟 GPU 占用。
CoWindow 注意力：全因果覆盖是头集合的集体属性
🧭 LLM 稀疏注意力 · 集体因果覆盖 ★ 深度解读
The Hong Kong University of Science and Technology (Guangzhou) · Beijing Academy of Artificial Intelligence · Université Paris Cité
用 KV 头互补长程窗口实现全因果覆盖，训练/解码延迟降 7.4x/3x 且质量接近 FullAttn
📌 工作参考价值（4 点）
- 长上下文 LLM 用于用户行为轨迹、会话日志或 Agent 工具调用历史时，可考虑把 FullAttn 换成 CoWA 式结构：近邻窗口保留最近行为/当前会话，prefix-sink 固定放 user profile 或 system prompt，远处历史按 KV head 切分互补窗口，训练和推理都能省显存省 FLOPs，同时不牺牲关键关联召回。
- 静态位置窗口比动态 router/indexer 更适合线上：不需要额外检索选择，避免了线上 TopK 漂移和 router 延迟；如果业务里做长序列检索式注意力，可以借鉴 position-defined sparsity + collective coverage，把长程访问做成确定性分片，工程实现更稳。
- 多 GPU 部署时按全局 KV head 索引分配窗口，与 tensor parallelism 对齐，每个 rank 只持有互补窗口的 KV cache，可降低长上下文推理显存和 KV cache 访问；适合商品描述生成、Agent 多步轨迹分析等长上下文服务降本。
- 用 synthetic associative recall 快速评估长序列建模是否保留 item 关联，比直接跑长上下文 benchmark 更便宜，适合在推荐系统用户行为序列建模上线前做快速 ablation。
MassAlloc Attention：让注意力自主分配计算
🧭 高效注意力 · 自适应计算分配 ★ 深度解读
The Hong Kong University of Science and Technology (Guangzhou) · Beijing Academy of Artificial Intelligence · Université Paris Cité
提出MALA，保留完整QK打分，按归一化注意力贡献度跳过低价值后处理，显著降低长上下文训练/推理计算且保持精度
📌 工作参考价值（4 点）
- 在长用户行为序列建模或长上下文推荐中，可借鉴 MALA 思路：保留完整 QK 打分以捕获任意长程兴趣依赖，但用归一化贡献阈值跳过低贡献 tile 的 V 加载和 PV 累积，从而降低线上推理延迟和离线训练 FLOPs，且精度损失极小。
- 统一阈值 τ/L_q 的设计省去逐层/逐头/逐输入单独标定，适合电商场景中用户序列长度动态变化（从几十到几千）的部署；可根据线上延迟要求全局调整 τ，无需重新训练。
- 反向传播复用前向保存的 finalized normalizer，仅用标准 attention 状态推导嵌套支持，不额外存 mask 或索引，内存开销与 FullAttn 持平，对显存受限的推荐模型训练尤其有吸引力。
- 与 MoBA、DSA 等提前丢弃 QK 的稀疏方法不同，MALA 保留完整 QK 打分，适合需要精确长程关联检索的任务（如跨会话用户兴趣召回、长文档中的商品关联），可作为底层注意力替换方案集成到现有长上下文 LLM 推荐或 Agent 系统中。
Scaffold：基于支撑图理论的图神经网络稀疏化框架
🧭 图神经网络稀疏化 · 支撑图理论
Pacific Northwest National Laboratory · University of Texas at Dallas · University of North Carolina at Charlotte · Adobe · Boise State University
用支撑图理论联合控制 dilation 与 congestion 的拓扑稀疏化方法，在 GNN 上大幅降存提速且保持性能
📌 工作参考价值（4 点）
- 在大规模 user-item 二部图或商品知识图谱上训练 GNN 时，可将 Scaffold 作为预处理边稀疏化步骤，替代随机采样或度中心性采样，在 10%-50% 边保留率下接近全图性能，显存占用减半以上，适合电商推荐中的大规模图训练。
- dilation-congestion 联合约束可以直接借鉴到构建轻量图子图或缓存图结构：删边时评估替代路径长度（dilation）和路径集中度（congestion），避免切断关键通信路径，对实时推荐或增量更新子图有工程价值。
- 方法在异配图（heterophilic）上同样有效，可用于处理社交关系、用户共现等噪声连接较多的场景，提升 GNN 抗噪能力。
- 已开源实现，作为独立预处理模块可快速接入 PyG/DGL 训练流程，端到端训练时间（含稀疏化开销）仍低于全图训练，适合线上迭代。
面向高效推理：为扩散语言模型学习因果捷径
🧭 扩散语言模型推理训练优化
Zhejiang University · Shanghai AI Laboratory
提出CSL框架，通过提取因果捷径并优先掩码训练，提升扩散语言模型推理精度与收敛速度
📌 工作参考价值（4 点）
- 如果业务中尝试用 Diffusion LM 做推理型任务（如 Agent 规划、推荐理由生成），不要用 random masking；先提取推理链中的关键 token（causal shortcuts），优先 mask 这些 token 做 SFT，能明显提升收敛速度和最终精度。
- 论文给了一套 step-by-step token extraction 流程，可以从业务数据里自动挖出“因果捷径” token 链，适合迁移到需要生成结构化推理路径的场景（如电商导购 Agent 的决策链路）。
- 核心结论是：在双向扩散模型的 SFT 中，控制 mask 分布比随机 mask 更高效，这个思想也可以借鉴到其他 masked/denoising 序列模型训练中，作为训练效率调优手段。
- 对线上推理有启发：如果已部署 DLM，可以通过识别并保护 causal shortcut token 来减少探索空间，加快生成收敛，降低推理延迟。
dQwen3.5：混合注意力扩散语言模型
🧭 扩散语言模型适配 · 混合架构 ★ 深度解读
University of Texas at Austin
将因果 RNN 骨干保留、仅双向化注意力层，实现 AR 到扩散语言模型的高效适配，训练 token 减半且保持并行/任意顺序解码
📌 工作参考价值（4 点）
- 若业务已有 hybrid AR 生成模型（如 query 生成、商品文案、搜索词生成），可直接做 AR→DLM 适配：只把 attention 层的因果 mask 关掉，保留 RNN 因果，再按论文做 token shifting 和复用未用 token id 作为 mask/pad/BOS，无需新 embedding 或改架构，即可继承权重并得到并行/任意顺序解码能力。
- 训练预算上，扩散适配 50B tokens 通常够用，尤其大模型不要盲目拉到 100B；把下游指标（而非训练 loss）作为停止/选 checkpoint 依据，同时学习率按原始能力保留来选，防止灾难性遗忘。
- 线上低延迟生成可借鉴 block decoding（块大小 32）做半自回归：块内任意顺序并行，块间左到右，适合搜索建议、push 文案等需要部分结构化的场景；confidence threshold 在 2–16× NFE 加速下仍维持较好的 HumanEval 表现，可直接探索。
- 微调数据配比：初始 71% 领域代码不如 50% code + 35% general 混合，加入通用语料后 19/20 指标提升；对推荐/搜索生成模型的领域微调有同样启示——保留通用数据，且对代码/执行类数据可做可执行性验证过滤。
Ecdysis：高效训练LLM Agent运行时harness的失败诊断驱动框架
🧭 Agent 运行时自进化 · 失败归因 ★ 深度解读
Chengdu Institute of Computer Applications, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Beijing Institute of Technology · Beijing University of Technology · Yangtze Delta Region Institute of Tsinghua University, Zhejiang
跨任务失败聚合与多角色协作诊断，区分模型适配与系统缺陷，实现训练加速与泛化提升
📌 工作参考价值（4 点）
- 在搜索/推荐 Agent 的 workflow 优化中，不要针对单条失败 case 直接改 prompt 或工具逻辑；先批量收集失败轨迹，按“失败模式”跨任务分组，只对重复出现的模式做系统级修改，能显著减少过拟合和重复修改成本。
- 把“诊断”与“实施”分离：用 Analyst/Critic/Engineer/Moderator 多角色写结构化修改规范，再交给 coding agent 改代码。这相当于在修改工作流前加一道评审，能降低无效修改，提升输入 cache 命中率（论文从 89% 升到 96%）。
- 用诊断价值选训练样本：优先选暴露新交互路径和未知失败机制的任务，而不是全量随机；论文中仅用 1/4 训练失败样本就接近全量效果，可用于电商/广告 bad case 分析的降本。
- 监控 model-accommodation ratio：统计修改中有多少是在迁就当前 LLM 的怪癖；若过高，该 workflow/工具链很可能只对当前模型有效，换模型会退化。可把这个指标纳入 Agent 上线前的回归检查。
训练通信高效 Mixture-of-Experts 语言模型的层重配置方法
🧭 通信高效 MoE 架构训练优化 ★ 深度解读
NVIDIA
减少 MoE 层数并用 Mamba-2 和密集 FFN 补深度，在匹配参数下降低专家并行通信和训练 GPU 小时 30-35%
📌 工作参考价值（4 点）
- 如果业务里用 MoE LLM 做召回/粗排/reranker 或生成式推荐，可尝试把 MoE 层从每个 token-mixing 后都放一个改为稀疏放置，例如 52 层 hybrid 模型只保留 8 个 MoE 层，其余用 Mamba-2 和 dense FFN 补深度，理论上 all-to-all 调用从 23q 降到 8q，实际训练 GPU 小时省 30% 以上。
- 层排序不要随机，采用 phased-greedy：先把 attention 和 channel-mixing 块按虚拟块分配到 Mamba spine，避免连续 channel-mixing，attention 放在 token-mixing 尾部；实验中比 21 个受约束随机排序的验证损失低约 1.8σ。
- 连续堆叠 softmax attention 容易 rank collapse 导致训练发散；如果用 token-mixing-heavy 架构，优先用 Mamba-2/线性注意力作为主干，比 softmax attention 稳定得多。
- 评估架构改动要直接看 GPU-hours 而非理论 FLOPs/参数量；本文的模型形状搜索用 L_E*K 作为通信代价代理，在参数匹配候选中选该值最小者，可复用到自己的搜索流程。
知何时不复用：自主 LLM 后训练中的条件经验迁移
🧭 自主 LLM 后训练经验迁移控制
Alibaba Cloud Computing
提出 BCIT 方法，在自主 LLM 后训练中只授权可迁移的历史更新，减少有害复用并提升同预算下最终模型质量
📌 工作参考价值（4 点）
- 持续训练或自动更新线上模型时，不要将历史训练更新（数据配比、超参、LoRA 模块）视为无条件成功经验；应记录父模型版本、数据分布、训练阶段，并将每次效果与其来源上下文绑定。
- 在正式改变权重或晋升模型前，先做有界小规模训练试验，验证候选更新在当前父模型状态下是否仍然有效，避免错误更新进入线上后污染后续训练轨迹。
- 对已知硬冲突（如数据源、工具 schema、任务定义变化）建立命名规则，在候选生成阶段直接否决，节省算力并降低风险；所有候选共享统一采纳门槛，只有真实观察事件才进入经验记忆。
- 对 Agent 自动迭代工具调用、prompt 更新或模型微调的场景，可借鉴“条件经验复用”思路：经验不是越多越好，关键是在当前上下文中可行动。
Dion3：Muon 优化器全栈正交更新加速
🧭 Muon 优化器全栈加速与分布式优化 ★ 深度解读
New York University · Princeton University · NVIDIA · Yale University · Microsoft Research
提出 Gram Newton-Schulz、对称 GEMM 核、分数行选择更新和 megabatching，将 Muon 优化器步时最多降低 6 倍且保持/提升模型质量
📌 工作参考价值（4 点）
- Gram Newton-Schulz 可作为标准 Newton-Schulz 的 drop-in 替换，在权重矩阵 aspect ratio 高（如 MLP/MoE 权重）时显著减少 FLOP，适合推荐/广告模型中常见的宽矩阵，无需改变训练流程。
- 分数行选择 + error feedback 是实用的加速技巧：每次只正交化动量矩阵中 ℓ1 范数最大的 f 行，学习率按 η/√f 缩放，在资源受限时可将优化器计算量降低约 1/f²，且不损害甚至轻微提升模型质量。
- Megabatching 策略对 FSDP 下的通信优化很有价值：按矩阵形状分组做 all-to-all，减少通信轮次至 O(1)，在中小模型通信瓶颈场景（如 1B 模型 8 卡）可降低 35% 优化器步时，值得工程实现借鉴。
- 自定义对称 GEMM 核（CuteDSL）利用对称性只计算下三角并复制到上三角，在 Hopper/Blackwell 上获得近 2× 速度，适合集成到训练框架中以加速大量对称矩阵乘法。
多模态预训练物理学：知识流、模态协同、早期统一与配方
🧭 多模态预训练机制与训练效率优化
FAIR, Meta · Reality Labs, Meta · University of Oxford
系统揭示多模态预训练中知识非对称流动、模态协同依赖任务复杂度、早期统一优于晚对齐，并给出高效配方
📌 工作参考价值（4 点）
- 模态协同架构设计：在多模态推荐模型（如结合商品图文）中，采用共享注意力与层归一化，但解耦模态特定的 FFN，可促进协同并缓解竞争。
- 早期联合训练：从训练之初就统一多模态特征，而非分阶段预训练后对齐，能避免视觉惰性，使模型同时学习跨模态理解，对需要同时理解文本查询和商品图像的场景有益。
- 知识流动不对称性：语言先验可强驱动视觉生成，可利用文本生成增强商品图像描述或虚拟试穿模型的训练策略。
- 高效训练配方：通过 MoE 架构与训练策略压缩计算至原 5% 仍能保持强生成能力，直接适用于资源受限的电商多模态模型预训练。
自适应 FastOPD：基于学习进展感知的 rollout horizon 扩展, 实现高效 on-policy 蒸馏
🧭 On-Policy Distillation 自适应 rollout 调度 ★ 深度解读
University of Science and Technology of China · Shanghai Artificial Intelligence Laboratory · Shanghai Jiao Tong University
通过监测 OPD 训练进度并仅在边界区域进展停滞且充分利用当前长度时扩展 rollout horizon，自适应加速训练达 71.2% 并保持最优性能。
📌 工作参考价值（4 点）
- 动态调度生成/推理长度：在电商推荐或 Agent 在线采样中，批量内响应长度差异大，长尾拖慢整体。可借鉴自适应扩展机制，根据学习收敛信号（而非固定步数）动态决定是否增加采样长度，避免无效计算。
- 多信号融合监测训练进展：用 top-k 重叠、概率质量、共享贪婪优势、非共享惩罚四个互补信号归一化后取最大值，比单信号更鲁棒地判断当前阶段是否收敛，可应用于推荐模型的强化学习微调中，避免单一指标过早触发策略更新。
- 长度利用率门控过滤长尾：仅当足够比例样本到达当前 horizon 或边界时才扩展，防止少数超长响应主导批次时间。推荐系统中生成式召回的序列长度、对话 Agent 的多轮交互深度均可采用类似门控，减少 straggler 影响。
- 相对基线的归一化：不对原始 teacher-student 一致信号设绝对阈值，而是以刚进入当前 horizon 时的值为基线，计算相对改进幅度。这种自参照设计可迁移到任何动态阶段训练任务，使超参数对模型和数据更稳健。
上下文加权的离散流匹配
🧭 离散流匹配训练效率提升
University of Amsterdam · Meta FAIR
通过局部上下文密度重加权训练损失与采样过程，将文本生成困惑度降低最高63%。
📌 工作参考价值（4 点）
- 在生成推荐理由、广告文案、对话回复等文本时，不同位置的token预测难度差异大，可借鉴基于局部上下文密度的损失重加权，让模型聚焦高熵、低上下文密度的token，提升整体生成质量。
- 上下文加权采样器几乎无额外计算开销，适合在线服务；同时保留任意顺序生成能力，可用于交互式推荐场景中动态调整输出顺序。
- 对于语义ID生成、结构化描述生成等离散序列任务，可以事先估计上下文密度（例如用掩码语言模型得分），并在训练时对高难度位置加大梯度，减少训练集上易样本主导的偏置。
- 该方法在匹配半自回归块扩散基线质量的同时保持灵活性，提示我们在设计生成式推荐模型时，不一定要牺牲灵活性来换取效率，可以通过简单的上下文感知策略兼得。
通过自我蒸馏增强基于量规的强化学习
🧭 Rubric-based RL 训练优化
Zhejiang University · ByteDance
用 on-policy 自我蒸馏同时解决 rubric RL 的未被探索准则和压制准则问题，消除训练推理不匹配
📌 工作参考价值（4 点）
- 当使用 rubric-based RL 训练对话/推荐 Agent 时，可借鉴 CriPO 的自我蒸馏框架：对训练中从未满足的准则，构造一个注入准则提示的 teacher 模型，用局部 forward-KL 损失将缺失行为蒸馏到当前策略，无需在推理时引入额外引导，避免 train-inference mismatch。
- 针对 scalar reward 聚合导致部分准则信号被压制的问题（如推荐理由生成中某维度得分高但总分低），可识别与压制准则相关的 token，将其 token-level advantage 翻转为正值，保留被全局奖励淹没的细粒度模式，提升策略学习效率。
- 实现上，两个 self-teacher 均从当前策略加载参数（on-policy），工程简单，且实验中只需约一半训练步数即超越基线，适合资源敏感的业务场景快速迭代。
- 该方法不依赖外部模型或数据，仅利用 rollout 样本和准则元信息，可直接集成到现有 GRPO/PPO 训练框架中，对推荐系统的多目标/多准则 RL 对齐具有参考价值。
ViQ：任意分辨率下文本对齐的视觉量化表示
🧭 多模态离散表示与高效训练
Tencent HY Vision Team · Tsinghua University · Nanyang Technological University · Chinese Academy of Sciences
通过文本对齐预训练与头量化，将图像编码为保留细节和语义的离散 token，多模态训练加速 20-70%
📌 工作参考价值（4 点）
- 商品图像通过 ViQ 量化为离散 token，可与文本 token 统一送入 LLM，实现多模态生成式推荐，大幅降低计算和存储开销。
- 两阶段训练策略（先 CLIP 式文本对齐，再近端离散化）保证语义和细节，适合电商场景中既需属性识别又需图像质量的需求。
- 原生分辨率处理能力，可直接输入各种尺寸的商品图，避免统一 resize 造成的细节丢失或变形。
- 量化特征在 LLM 微调时训练加速 20-70%，可将该方案用于大规模多模态推荐模型的训练与推理加速。
MaskAlign: 用于高效扩散训练的 Token 子集表示对齐
🧭 高效扩散模型训练 · Token 子集对齐
The Hong Kong University of Science and Technology · Kuaishou Technology · University of Chinese Academy of Sciences
提出随机 Token 子集对齐与预掩码混合，大幅加速扩散 Transformer 训练并提升生成质量。
📌 工作参考价值（4 点）
- 主要是学术贡献，面向电商/推荐/AI 业务可借鉴点有限，但以下思路可参考：
- 训练跨模态对齐模型（如商品图文匹配）时，可尝试随机屏蔽部分 token 进行子集对齐，并引入轻量 token mixing 模块，增强对不完整输入的鲁棒性。
- 梯度分析定位重要 token 的方法可迁移用于诊断推荐模型的特征对齐过程，识别哪些用户行为 Token 更关键。
- 随机子集采样减少了对齐所需计算量，可作为训练加速 trick 在资源受限时使用。
AsyncWebRL: 视觉 Web Agent 的高效异步多步强化学习
🧭 视觉 Web Agent 多步 RL 训练优化 ★ 深度解读
UIUC · Microsoft · CMU
异步系统 + 去除轨迹步数归一化，实现视觉 Web Agent 训练 2.9× 加速且 OOD 准确率新高
📌 工作参考价值（4 点）
- 异步 RL 系统设计可照搬：长存 rollout 池（Everlasting Rollout Pool）让浏览器会话跨迭代持续存活，消除每轮重建开销；轻量截图处理（Lightweight Screenshot Handling）把图片留在专用 Actor 中，仅传引用，避免 RPC 对象存储因高并发图片序列化而写盘，这对电商中的多步视觉 Agent（如商品详情页浏览）有直接参考价值。
- GRPO 的长度归一化陷阱：多步 GRPO 中按轨迹步数归一化 1/|τ_i| 会使失败长轨迹的梯度衰减，策略倾向于生成冗长记忆填充，在电商 Agent 训练中可能导致类似「记流水账」行为；改为常数 1/k（k 设为 Easy 难度 horizon）可恢复对失败样本的完整惩罚，压缩不必要的输出 token。
- 解耦重要性采样（Decoupled PPO）：将 πθ/πbehave 拆成 πprox/πbehave（无 clip）和 πθ/πprox（有 clip），clip 率减半，训练奖励提升更快，适合任何异步 RL 训练中的 off-policy 校正。
- DAPO 式动态采样与 bandit-like 优势共享：每个 task 采样 16 个 rollout，跳过全成功/全失败组，再用组内均值归一化轨迹优势，在稀疏奖励的电商任务中也能稳定获得对比信号。